EN EXCLUSIVITÉ-Derrière l'appel lancé par le secteur de l'IA en faveur d'évaluations indépendantes se cache un bras de fer sur ce qui doit être rendu public

information fournie par Reuters •13/10/2026 à 12:01

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

* Selon certaines sources, Anthropic et OpenAI chercheraient à exercer une influence sur ce que les évaluateurs peuvent publier

* Les laboratoires d'IA s'inquiètent des fuites de propriété intellectuelle, selon certaines sources

* Les clauses de certains contrats interdisent aux évaluateurs de divulguer des informations sans l'accord de l'entreprise, comme le montre un document examiné par Reuters

par Aditya Soni

Anthropic et OpenAI ont cherché à exercer un contrôle important sur ce que les évaluateurs externes peuvent publier, craignant que leurs conclusions ne révèlent des secrets commerciaux, selon deux personnes proches des discussions.

Le directeur général d’Anthropic, Dario Amodei, a déclaré le mois dernier que les évaluateurs externes devraient avoir le droit de publier leurs principales conclusions "sans contrôle éditorial". OpenAI s’est rangé à cet avis quelques jours plus tard, affirmant que les évaluateurs devaient bénéficier d’une "indépendance éditoriale".

Ces entreprises spécialisées dans l’IA craignent que les évaluateurs travaillant au sein même de leurs locaux, dans le cadre de ce qu’on appelle l’"évaluation intégrée", ne transmettent des informations confidentielles à des concurrents, selon ces sources, qui ont souhaité rester anonymes car il s’agit d’une affaire confidentielle.

Parmi les mesures envisagées pour empêcher les fuites de propriété intellectuelle figurent la présence d’employés du laboratoire pour observer les équipes intégrées pendant leur travail et l’interdiction pour les évaluateurs intégrés dans un laboratoire de travailler simultanément dans un autre, a ajouté l’une de ces sources.

Mais ce que les laboratoires considèrent comme une propriété intellectuelle cruciale peut recouper des informations pertinentes pour évaluer le risque d’un modèle, ce qui peut donner lieu à des désaccords et à des expurgations, a déclaré une autre source au fait des relations passées avec ces laboratoires.

Des experts ont indiqué que l’indépendance des évaluateurs constituait un sujet de préoccupation, dans la mesure où ce sont Anthropic et OpenAI qui choisissent les personnes chargées de mener ces évaluations. Reuters révèle pour la première fois les détails de ces négociations entre les évaluateurs et les laboratoires d’IA.

Ces discussions mettent en évidence la tension entre la nécessité de sensibiliser le monde à une IA puissante et potentiellement dangereuse, et les exigences de protection des secrets commerciaux formulées par les entreprises d’IA qui visent des valorisations de plusieurs milliers de milliards de dollars dans le cadre de ce qui pourrait être des introductions en bourse majeures.

L’issue de ces discussions contribuera à déterminer la manière dont le monde examinera une technologie dont certains créateurs avertissent qu’elle pourrait évoluer au-delà de la capacité de l’humanité à la maîtriser.

En l’absence de normes et de législation convenues pour les évaluations indépendantes, certains experts ont déclaré que les entreprises développant les modèles d’IA les plus puissants pourraient dicter la manière dont leurs systèmes sont examinés, laissant ainsi les évaluateurs à la merci des laboratoires eux-mêmes.

NÉGOCIATIONS SUR LES DROITS DE PUBLICATION

La nature des discussions a rapidement évolué. Les deux personnes proches du dossier ont indiqué que, pas plus tard que le 5 octobre, Anthropic et OpenAI cherchaient à exercer un contrôle éditorial strict sur ce que les évaluateurs pouvaient publier. Le 8 octobre, les discussions entre Anthropic et certains évaluateurs semblaient avoir évolué, selon une source proche du dossier.

En réponse aux questions de Reuters, Anthropic a déclaré que le fait de chercher à exercer un contrôle significatif sur les publications des évaluateurs intégrés ne reflétait pas fidèlement l’ensemble de ses discussions et de son travail avec les évaluateurs indépendants.

La société à l’origine des modèles d’IA Claude a précisé que, dans le cadre des discussions en cours avec les évaluateurs avec lesquels elle avait déjà collaboré, elle avait clairement indiqué que les évaluateurs externes contrôlaient leurs méthodes, leurs critères d’évaluation, leurs conclusions et le contenu de leurs publications.

Concernant les nouveaux cabinets d’évaluateurs, Anthropic a déclaré se réserver le droit de commenter et d’approuver les rapports à mesure que les évaluateurs se familiarisent avec le fonctionnement de ses modèles et établissent une relation de travail.

De son côté, OpenAI a déclaré ne pas chercher à obtenir de droits d’approbation sur l’intégralité du texte des rapports produits par les évaluateurs. L’entreprise a précisé que sa pratique habituelle consistait à expurger les informations confidentielles, et que les évaluateurs pouvaient indiquer si des expurgations importantes avaient été effectuées.

Le créateur de ChatGPT a déclaré le mois dernier que les laboratoires d’IA et les évaluateurs devaient s’accorder sur la portée et les conditions d’accès avant les tests, divulguer leurs méthodes et leurs conflits d’intérêts, et laisser les évaluateurs contrôler leurs conclusions, tout en permettant aux laboratoires de protéger les informations sensibles.

Les clauses que les laboratoires d’IA utilisent déjà dans certains contrats conclus avec des cabinets chargés d’évaluer leurs modèles peuvent interdire à ces derniers de publier des informations confidentielles dans leurs rapports sans le consentement des entreprises, selon un contrat consulté par Reuters.

PROMESSES D’INDÉPENDANCE

Anthropic a annoncé le mois dernier que Faculty, la division d’Accenture spécialisée dans l’IA, serait son premier évaluateur intégré, mais a précisé que les détails concernant l’accès des évaluateurs et la manière dont ils rendraient compte de leurs conclusions étaient encore en cours d’élaboration.

"Les évaluateurs ne sont utiles que si l’on peut se fier à ce qu’ils rapportent; l’indépendance et la transparence sont donc essentielles", a déclaré à Reuters Marc Warner, directeur général de Faculty.

Les entreprises technologiques interdisent généralement aux sociétés avec lesquelles elles travaillent de partager ces informations avec des tiers sans leur consentement.

Mais selon les experts, les enjeux sont plus importants dans le domaine de l’IA, une technologie qui, selon ses développeurs, aura des implications majeures pour l’humanité.

En l’absence de normes, les laboratoires pourraient contrôler l’accès dont dépendent les évaluateurs, ce qui leur donnerait un pouvoir de décision sur ce qui est rapporté, a déclaré à Reuters Rumman Chowdhury, ancien envoyé scientifique américain pour l’IA sous l’administration Biden et directeur général de Humane Intelligence PBC.

"Les évaluateurs bénéficient de cet accès très privilégié, mais, que ce soit explicitement ou implicitement, ils savent que cela a un coût", a déclaré Chowdhury.

L’évaluation indépendante était l’une des quatre mesures de sécurité prévues dans l’"Accord de la Maison Blanche sur la super-intelligence", un document d’une page signé fin du mois dernier par le président Donald Trump et des dirigeants de premier plan du secteur de l’IA . Mais cet accord, que Trump a qualifié de "moralement contraignant", ne précisait pas comment ces évaluations devaient être menées.

Les évaluateurs ont également publié leurs propres conditions minimales le mois dernier dans une lettre ouverte signée par plus de 200 chercheurs, dont Geoffrey Hinton, l’un des pères fondateurs de l’IA. Cette lettre réclame un contrôle indépendant des résultats, un large accès aux laboratoires d’IA et une protection contre les représailles.

EXPURGATIONS ET ACCÈS RESTREINT

OpenAI a expurgé les informations non publiques d’un rapport rédigé par Model Evaluation and Threat Research (METR) et Redwood Research concernant l’incident Hugging Face , au cours duquel des agents autonomes alimentés par les modèles avancés d’OpenAI se sont rebellés et ont déclenché une attaque informatique qui a compromis l’infrastructure de Hugging Face.

L’enquête menée par ces associations à but non lucratif spécialisées dans la sécurité de l’IA, initialement prévue pour durer deux jours chez OpenAI, s’est étendue à six jours répartis sur trois visites, l’ensemble complet des transcriptions n’ayant été fourni qu’à l’occasion de la dernière visite, après que les chercheurs eurent signalé des lacunes dans les données.

METR et Redwood ont déclaré avoir modifié la structure, les points d’accentuation, la clarté et le ton du rapport en fonction des commentaires d’OpenAI, mais qu’aucun élément important pour leurs conclusions n’avait été supprimé. Ils ont maintenu leurs conclusions et salué l’accès finalement accordé par OpenAI, tout en précisant que le risque de dissuader les développeurs de faire appel à des évaluateurs externes après des incidents graves avait influencé leurs décisions lors de la rédaction, de la révision et de la mise au point du rapport.